Efficient Adaptive Data Acquisition via Pretrained Belief Representations
基于预训练信念表示的高效自适应数据获取
🧭 预训练信念驱动的自适应数据获取策略
ELLIS Institute Finland · Department of Computer Science, Aalto University, Finland · Department of Computer Science, University of Helsinki, Finland · Department of Computer Science, University of Manchester, UK · Department of Statistics, University of Oxford, UK
提出POLAR,用预训练模型编码信念状态以解耦表示与策略学习,统一高效地解决贝叶斯实验设计、优化与主动学习
📌 工作参考价值(4 点)
- 在在线推荐、广告搜索中,可将预训练的用户行为序列模型(如Transformers)作为信念状态编码器,仅微调轻量策略头用于bandit/RL决策,避免从零训练。
- 自动化A/B测试或超参数调优时,可用POLAR实现样本高效的贝叶斯优化,大幅减少实验成本。
- 主动学习选择标注样本:利用预训练的语境表示作为信念状态,训练策略头快速适应新任务,所需查询数显著减少。
- 工程上,解耦表示与策略允许复用预训练表征,只需更新策略头,方便增量部署与策略迭代。